强烈需要开发,改进,实施和整合,以确保智能代理的智能代理,以确保强烈需要透明,可解释,可靠和道德行为。这是由于以下事实:代理系统广泛用于许多重要的自主应用,生命和重要社会功能可能取决于这些应用程序。因此,代理人应该值得信赖,因为他们可以依靠它们来做对他们的期望,而没有表现出不良行为。因此,在当前情况下,代理不应以不正确的/禁止/不道德的方式行事,并且他们不应设计可能与其规范或用户的期望形成对比的新行为。在能够在需要时解释自己的行为和选择的意义上,它们应该是透明的:实际上,应该始终可以找出代理(或更一般而言,自主系统)如何以及为何做出明显决策的原因。默认情况下不能保证此属性,而是从精心设计的方法中降下。透明度(“解释性”)至关重要,因为如果涉及自治系统的任何事故或不良功能,必须始终可能会发现和固定问题的故障或不足之处,并确定了责任感。,可以理解的是,用户(理性地)将更多地信任那些可以对其行为和选择提供可理解的解释的自主系统。许多研究已将用户的信任与与可验证的系统进行交互的程度联系在一起,并且可以向每个特定类别的用户提供可理解的解释。
主要关键词
![arxiv:2402.07547v1 [CS.MA] 2024年2月12日PDF文件第1页](/bimg/8/8505d6dc0894b7a8641e5f934337b42a2c660b91.webp)
![arxiv:2402.07547v1 [CS.MA] 2024年2月12日PDF文件第2页](/bimg/2/27e620996ea638c5c3a63cf24dfa9ed395f2709c.webp)
![arxiv:2402.07547v1 [CS.MA] 2024年2月12日PDF文件第3页](/bimg/8/850a958cd0217dbeeb8a014c37c8f8524397fc80.webp)
![arxiv:2402.07547v1 [CS.MA] 2024年2月12日PDF文件第4页](/bimg/1/133c5f2c301077c6c95db127494dbcc4d69f89aa.webp)
![arxiv:2402.07547v1 [CS.MA] 2024年2月12日PDF文件第5页](/bimg/e/eb8e1536665800921f6d702986d796b3f1c74744.webp)
